Các phế tích được tìm thấy trong thành phố Baojiyan (tiếng Trung giản thể: 宝积岩; tiếng Trung Quốc phồn thể: 寶積) và hang Zengpiyan (皮) có từ khoảng 10.000 năm trước. Người Zengpiyan có một xã hội gia tộc mẫu hệ. Trước thời nhà Tần, vùng Quế Lâm đã có người Bách Việt định cư. Năm 314 TCN, một nhóm định cư nhỏ được thiết lập dọc bên bờ sông Li Giang. Nhà Tần thành lập quận Quế Lâm tại khu vực ngày nay là nội thành Quế Lâm. Trong các chiến dịch của nhà Tần nhằm đối phó với quốc gia li khai Nam Việt, chính quyền đầu tiên được thành lập ở khu vực xung quanh Quế Lâm. Thành phố hiện đại nằm trong Bộ chỉ huy Quế Lâm (郡), là nguồn gốc của tên hiện đại "Quế Lâm".

Năm Nguyên Đỉnh thứ 6 (111 TCN), vào thời Hán Vũ Đế nhà Hán, huyện Thủy An (始安) được thành lập, đây được xem như thời điểm bắt đầu của địa cấp thị này. Thời Đông Hán, lập Thủy An hầu quốc. Năm Cam Lộ thứ nhất (265) thời Tam Quốc, Quế Lâm thuộc về Đông Ngô, Tôn Hạo cho thành lập quận Thủy An. Năm 507, quận được đổi tên thành Quế Châu. Năm 634, huyện Lâm Quế được thành lập tại địa điểm hiện đại của Quế Lâm, thuộc tỉnh Quế. Năm 868, Bàng Huân nổi dậy chống lại nhà Đường từ tỉnh Quế.

Quế Lâm trở nên thịnh vượng dưới thời nhà Đường và nhà Tống nhưng vẫn là một quận. Thành phố cũng là một mối quan hệ giữa chính quyền trung ương và biên giới phía tây nam, và đó là nơi các đội quân thường xuyên được đặt để bảo vệ biên giới đó. Các kênh đào được xây dựng xuyên qua thành phố để nguồn cung cấp thực phẩm có thể được vận chuyển trực tiếp từ đồng bằng Trường Giang sản xuất thực phẩm đến điểm xa nhất về phía tây nam của quốc gia.

Năm 997, Quảng Nam Tây Lộ, tiền thân của Quảng Tây hiện đại, được thành lập, với Quế Châu là thủ đô. Năm 1133, Quý Châu được đổi tên thành tỉnh Tĩnh Giang (tiếng Trung giản thể: 静江; tiếng Trung phồn thể: 靜江)

Năm 1367, vào thời Chí Chính nhà Nguyên, lộ Tĩnh Giang được đổi thành phủ Quế Lâm (桂林府). Thời nhà Thanh và Trung Hoa dân quốc nó là thủ phủ tỉnh Quảng Tây (trừ giai đoạn 1912-1936 thủ phủ tỉnh là Nam Ninh). Năm 1921, Quế Lâm trở thành một trong những trụ sở của Quân đội viễn chinh phương Bắc do Tôn Trung Sơn lãnh đạo. Năm 1940, thành phố Quế Lâm được thành lập.

Năm 1950, thủ phủ tỉnh Quảng Tây được chuyển từ Quế Lâm đến Nam Ninh. Đến thời Cộng hòa Nhân dân Trung Hoa thì thủ phủ tỉnh Quảng Tây chuyển về Nam Ninh cho tới tận hiện nay. Theo dòng lịch sử, Quế Lâm là trung tâm chính trị, kinh tế và văn hóa của khu vực Lĩnh Nam. Năm 1981, Quế Lâm được Quốc vụ viện liệt kê cùng ba thành phố khác (Bắc Kinh, Hàng Châu và Tô Châu) trong danh sách các thành phố cần được bảo tồn hàng đầu về các di sản lịch sử và văn hóa, cũng như cảnh quan thiên nhiên.